Alertan sobre alcance de autonomía en la Inteligencia Artificial
En un periodo de apenas 16 meses (desde febrero de 2025 hasta junio de 2026), la participación humana en la programación del sistema de Anthropic se redujo drásticamente.
Anthropic insta «frenar o pausar temporalmente el desarrollo de la IA de frontera» debido al desarrollo de autonomía en dicho sistema tecnológico. Foto: EFE
5 de junio de 2026 Hora: 00:43
🔗 Comparte este artículo
La empresa tecnológica Anthropic alertó este jueves en Estados Unidos que los sistemas de inteligencia artificial serán capaces de crear de manera autónoma a «su propio sucesor» y solicitó una «pausa» internacional para asimilar su impacto.
La corporación de tecnología advirtió que la llegada de la «automejora recursiva» —proceso mediante el cual el software diseña su propia evolución— «no es inevitable» y «puede llegar antes de que muchas instituciones estén preparadas».
El informe, firmado por el cofundador de Anthropic, Jack Clark, y la directora de The Anthropic Institute, Marina Favaro, detalla los peligros de esta transición sin supervisión pública, señalan que si el sistema se independiza, se corre el peligro de «incrementar los riesgos de que los humanos pierdan el control de los sistemas de IA», por lo que «los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes».
Ante este panorama, la firma considera que «probablemente sea bueno» desacelerar el ritmo comercial para analizar las «inmensas implicaciones» de la herramienta.
La propuesta de la empresa privada consiste en «frenar o pausar temporalmente el desarrollo de la IA de frontera» para permitir que las normas estatales alcancen a «seguir el ritmo» de la tecnología, estableciendo mecanismos para «verificar» que competidores y laboratorios «bien financiados» decidan «aceptar detenerse bajo las mismas condiciones» y evitar el auge de un «mal actor».
LEA TAMBIÉN:
Científicos rusos patentan una solución de inteligencia artificial para la geomecánica minera
Para viabilizar esta iniciativa de seguridad, los investigadores puntualizaron que «una pausa creíble también tiene que especificar qué la desencadena, qué la levanta y quién la arbitra».
La urgencia de la discusión se refleja en la propia base operativa de Anthropic, debido a que en un periodo de apenas 16 meses (desde febrero de 2025 hasta junio de 2026), la participación humana en la programación del sistema de Anthropic se redujo drásticamente.
En febrero de 2025, los ingenieros humanos programaban más del 90 por ciento del código y la IA (Claude) hacía menos del 10 por ciento. Hoy, la relación se invirtió completamente: la IA escribe más del 80 por ciento del código y los humanos menos del 20 por ciento.
Autor: teleSUR - mb - JGN
Fuente: Agencias
